GermanWikipedia - /page/entry.mu

<!DOCTYPE html>

<title>Hauptkomponentenanalyse</title>

</head>

<h1 id="firstHeading" class="firstHeading mw-first-heading">Hauptkomponentenanalyse</h1>

</header>

</div>

Die Hauptkomponentenanalyse (kurz: HKA, <a href="Englische_Sprache" title="Englische Sprache">englisch</a> Principal Component Analysis, kurz: PCA) – das mathematische Verfahren ist auch als <a href="Hauptachsentransformation" title="Hauptachsentransformation">Hauptachsentransformation</a> oder <a href="Singul%C3%A4rwertzerlegung" title="Singulärwertzerlegung">Singulärwertzerlegung</a> bekannt – ist ein <a href="Multivariate_Verfahren" title="Multivariate Verfahren">Verfahren der multivariaten Statistik</a>. Sie strukturiert umfangreiche Datensätze durch Benutzung der <a href="Eigenvektor" class="mw-redirect" title="Eigenvektor">Eigenvektoren</a> der <a href="Kovarianzmatrix" title="Kovarianzmatrix">Kovarianzmatrix</a>. Dadurch können <a href="Datensatz" title="Datensatz">Datensätze</a> aus <a href="Ratioskala" class="mw-redirect" title="Ratioskala">ratio-skalierten</a> Variablen vereinfacht und veranschaulicht werden, indem eine Vielzahl statistischer Variablen durch eine geringere Zahl möglichst aussagekräftiger <a href="Linearkombination" title="Linearkombination">Linearkombinationen</a> (die Hauptkomponenten) genähert wird.

Die Hauptkomponentenanalyse zählt somit zu den <a href="Ordinationsverfahren" title="Ordinationsverfahren">Ordinationen</a>. Zur Anwendung kommt die Hauptkomponentenanalyse als <a href="Kari_Karhunen" title="Kari Karhunen">Karhunen</a>-<a href="Michel_Lo%C3%A8ve" title="Michel Loève">Loève</a>-Transformation im Besonderen in der <a href="Signalverarbeitung" title="Signalverarbeitung">Signal-</a> und dort speziell der <a href="Bildverarbeitung" title="Bildverarbeitung">Bildverarbeitung</a>. Sie ist von der <a href="Faktorenanalyse" title="Faktorenanalyse">Faktorenanalyse</a> zu unterscheiden, mit der sie formale Ähnlichkeit hat und in der sie als Näherungsmethode zur Faktorenextraktion verwendet werden kann (der Unterschied der beiden Verfahren wird im Artikel <a href="Faktorenanalyse#Faktoren-_versus_Hauptkomponentenanalyse" title="Faktorenanalyse">Faktorenanalyse</a> erläutert). Es gibt verschiedene Verallgemeinerungen der Hauptkomponentenanalyse, z. B. die Principal Curves, die Principal Surfaces, t-distributed stochastic neighbor embedding oder die Kernbasierte Hauptkomponentenanalyse (kernel principal component analysis, kurz: kernel PCA) bzw. für <a href="Kategoriale_Variable" title="Kategoriale Variable">kategoriale Daten</a> die multiple Korrespondenzanalyse.

<div class="mw-heading mw-heading2"><h2 id="Geschichte">Geschichte</h2></div>

Die Hauptkomponentenanalyse wurde von <a href="Karl_Pearson" title="Karl Pearson">Karl Pearson</a> 1901 eingeführt<a href="#cite_note-1">[1]</a> und in den 1930er Jahren von <a href="Harold_Hotelling" title="Harold Hotelling">Harold Hotelling</a> weiterentwickelt. Wie andere statistische Analysemethoden erlangte sie weite Verbreitung erst mit der zunehmenden Verfügbarkeit von Computern im dritten Viertel des 20. Jahrhunderts. Die ersten Anwendungen entstammten der <a href="Biologie" title="Biologie">Biologie</a>.

<div class="mw-heading mw-heading2"><h2 id="Konzeption_der_Hauptkomponentenanalyse">Konzeption der Hauptkomponentenanalyse</h2></div>

Der zugrundeliegende <a href="Datensatz" title="Datensatz">Datensatz</a> hat typischerweise die Struktur einer <a href="Matrix_(Mathematik)" title="Matrix (Mathematik)">Matrix</a>: An <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle n}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle n}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/a601995d55609f2d9f5e233e36fbe9ea26011b3b.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.395ex; height:1.676ex;" alt="{\displaystyle n}" loading="lazy"> Versuchspersonen oder Gegenständen wurden jeweils <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy"> ratio-skalierte Merkmale gemessen. Ein solcher Datensatz kann als Menge von <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle n}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle n}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/a601995d55609f2d9f5e233e36fbe9ea26011b3b.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.395ex; height:1.676ex;" alt="{\displaystyle n}" loading="lazy"> Punkten im <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy">-dimensionalen Raum <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbb {R} ^{p}}">

<msup>

</mrow>

</mrow>

</msup>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbb {R} ^{p}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/40a670215fd4556c78acd92bdc55d472548b7a21.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:2.737ex; height:2.343ex;" alt="{\displaystyle \mathbb {R} ^{p}}" loading="lazy"> veranschaulicht werden. Ziel der Hauptkomponentenanalyse ist es, diese Datenpunkte so in einen <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle q}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle q}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/06809d64fa7c817ffc7e323f85997f783dbdf71d.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:1.07ex; height:2.009ex;" alt="{\displaystyle q}" loading="lazy">-dimensionalen Unterraum <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbb {R} ^{q}}">

<msup>

</mrow>

</mrow>

</msup>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbb {R} ^{q}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/1fc1b66f646d2486ff1b0e5512ecafb5c23e8b7c.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:2.667ex; height:2.343ex;" alt="{\displaystyle \mathbb {R} ^{q}}" loading="lazy"> (<math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle q<p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle q<p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/d3b1c10ed2963756b2a3b356b29860e63b5cb66f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:5.337ex; height:2.176ex;" alt="{\displaystyle q<p}" loading="lazy">) zu projizieren, dass dabei möglichst wenig Information verloren geht und vorliegende <a href="Redundanz_(Informationstheorie)" title="Redundanz (Informationstheorie)">Redundanz</a> in Form von <a href="Korrelation" title="Korrelation">Korrelation</a> in den Datenpunkten zusammengefasst wird.<a href="#cite_note-2">[2]</a>

Die Arbeitsweise der Hauptkomponentenanalyse zerfällt in drei Schritte, <a href="Parallelverschiebung" title="Parallelverschiebung">Translation</a>, <a href="Rotationsverfahren_(Statistik)" title="Rotationsverfahren (Statistik)">Rotation</a> und <a href="Projektion_(Lineare_Algebra)" class="mw-redirect" title="Projektion (Lineare Algebra)">Projektion</a><a href="#cite_note-3">[3]</a>. Sie lässt sich gut mit Hilfe einer geometrischen Metapher veranschaulichen<a href="#cite_note-4">[4]</a>. Die gerade beschriebene Punktwolke wird so verschoben (Translation), dass ihr Mittelpunkt (Zentroid; Vektor der Variablen-<a href="Mittelwert" title="Mittelwert">Mittelwerte</a>) auf dem <a href="Koordinatenursprung" class="mw-redirect" title="Koordinatenursprung">Ursprung</a> eines neuen Koordinatensystems zu liegen kommt. Dann wird die Punktwolke so um diesen Ursprung gedreht (Rotation), dass ihre 'Längsachse' – gemessen als Größe der gemeinsamen Streuung (Kovarianz) – der ersten Achse des neuen Koordinatensystems entspricht, ihre 'Breitenachse', der zweiten Achse des neuen Systems, ihre 'Höhenachse' der dritten usw. Die genaue Lösung für die optimale Rotation ergibt sich aus den Eigenvektoren der Streuungsmatrix (s. u.). Der zumeist abgebildete Biplot ist nach dieser Metapher derjenige <a href="Projektion_(Lineare_Algebra)" class="mw-redirect" title="Projektion (Lineare Algebra)">zweidimensionale Schatten</a> der multidimensionalen Punktwolke (Projektion), der die Abstände zwischen den Punkten 'am besten' in einer zweidimensionalen Ebene zeigt. Der Anteil der <a href="Eigenwerte_und_Eigenvektoren" title="Eigenwerte und Eigenvektoren">Eigenwerte</a> dieser ersten zwei sog. Hauptachsen an der Summe aller Eigenwerte ist vereinfacht gesagt der Anteil der Unterschiede (Abstände) zwischen den Punkten, den man maximal in einer Ebene zeigen kann. Die zwei Varianten, nämlich die Verwendung der <a href="Kovarianzmatrix" title="Kovarianzmatrix">Kovarianzmatrix</a> oder der <a href="Korrelationsmatrix" title="Korrelationsmatrix">Korrelationsmatrix</a>, entsprechen in der Metapher der Verwendung der unveränderten Punktwolke (Kovarianzen) bzw. der zuvor entlang der ursprünglichen Variablen gestauchten oder gestreckten Punktwolke (Korrelationen). Die zweite Variante muss angewendet werden<a href="#cite_note-5">[5]</a>, wenn die Variablen des analysierten Datensatzes in unterschiedlichen Maßeinheiten ausgedrückt sind. Ohne diesen Schritt wären die Ladungen (s. u.) nicht deutbar.

Mathematisch wird eine <a href="Hauptachsentransformation" title="Hauptachsentransformation">Hauptachsentransformation</a> durchgeführt: Man minimiert die <a href="Korrelation" title="Korrelation">Korrelation</a> mehrdimensionaler Merkmale durch Überführung in einen <a href="Vektorraum" title="Vektorraum">Vektorraum</a> mit neuer <a href="Basis_(Vektorraum)" title="Basis (Vektorraum)">Basis</a>. Die Hauptachsentransformation lässt sich durch eine <a href="Orthogonale_Matrix" title="Orthogonale Matrix">orthogonale Matrix</a> angeben, die aus den <a href="Eigenvektor" class="mw-redirect" title="Eigenvektor">Eigenvektoren</a> der <a href="Kovarianzmatrix" title="Kovarianzmatrix">Kovarianzmatrix</a> gebildet wird. Die Hauptkomponentenanalyse ist damit problemabhängig, weil für jeden Datensatz eine eigene <a href="Transformationsmatrix" class="mw-redirect" title="Transformationsmatrix">Transformationsmatrix</a> berechnet werden muss. Die Rotation des <a href="Koordinatensystem" title="Koordinatensystem">Koordinatensystems</a> wird so ausgeführt, dass die Kovarianzmatrix diagonalisiert wird, d. h., die Daten werden dekorreliert (die Korrelationen sind die Außerdiagonaleinträge der Kovarianzmatrix). Für <a href="Normalverteilung" title="Normalverteilung">normalverteilte</a> Datensätze bedeutet dies, dass die einzelnen Komponenten jedes Datensatzes nach der PCA voneinander statistisch unabhängig sind, da die Normalverteilung durch das nullte (Normierung), erste (<a href="Erwartungswert" title="Erwartungswert">Erwartungswert</a>) und zweite Moment (<a href="Kovarianz_(Stochastik)" title="Kovarianz (Stochastik)">Kovarianzen</a>) vollständig charakterisiert wird. Sind die Datensätze nicht normalverteilt, werden die Daten auch nach der PCA – obwohl nun dekorreliert – noch immer <a href="Statistisch" class="mw-redirect" title="Statistisch">statistisch</a> abhängig sein. Die PCA ist also nur für normalverteilte Datensätze eine „optimale“ Methode.

<div class="mw-heading mw-heading2"><h2 id="Verfahren">Verfahren</h2></div>

Die Daten liegen als <a href="Punktwolke" title="Punktwolke">Punktwolke</a> in einem <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy">-dimensionalen kartesischen <a href="Koordinatensystem" title="Koordinatensystem">Koordinatensystem</a> vor.

<div class="mw-heading mw-heading4"><h4 id="Beste_lineare_Approximation_an_den_Datensatz">Beste lineare Approximation an den Datensatz</h4></div>

Das Berechnen der Hauptkomponenten kann man als iterativen Prozess auffassen. In der rechten Grafik wird für die Datenpunkte (nicht ausgefüllte Kreise) diejenige Gerade gesucht, die die Daten am besten <a href="Approximieren" class="mw-redirect" title="Approximieren">approximiert</a>. Der Fehler eines Datenpunktes ist der <a href="Euklidischer_Abstand" title="Euklidischer Abstand">euklidische Abstand</a> zwischen der Geraden und den Datenpunkten. Für den Datenpunkt rechts oben ist der Fehler die rote Linie, die senkrecht auf der schwarzen Geraden steht. Die erste Hauptkomponente ist die Gerade, bei der die Summe der <a href="Quadrat_(Mathematik)" title="Quadrat (Mathematik)">Quadrate</a> dieser Fehler minimal ist (Vergleiche <a href="Deming-Regression" title="Deming-Regression">Deming-Regression</a>).

Danach wird eine weitere <a href="Gerade" title="Gerade">Gerade</a> gesucht, die auch durch den Mittelwert der Datenpunkte geht und <a href="Orthogonalit%C3%A4t" title="Orthogonalität">orthogonal</a> zur ersten Geraden ist: die zweite Hauptkomponente. Im Falle zweidimensionaler Daten ist dies einfach die senkrecht auf der ersten Hauptkomponente stehende Gerade. Ansonsten ist die jeweils nächste Hauptkomponente senkrecht zu allen bisherigen Hauptkomponenten; mit dieser Bedingung wird wieder die Gerade bestimmt, bei der die <a href="Summe_der_Abweichungsquadrate" title="Summe der Abweichungsquadrate">Quadratsumme</a> der Abstände minimal ist. So können die weiteren Geraden bis zur <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy">-ten Hauptkomponente bestimmt werden.

<div class="mw-heading mw-heading4"><h4 id="Maximierung_der_Varianz">Maximierung der Varianz</h4></div>

Die Distanz zwischen dem Zentrum der Daten und einem Datenpunkt ist unabhängig davon, welche <a href="Gerade" title="Gerade">Gerade</a> durch das Zentrum als „Referenz“ betrachtet wird (siehe die rote Linie vom Zentrum der Daten zum Datenpunkt rechts oben). Mittels des <a href="Satz_des_Pythagoras" title="Satz des Pythagoras">Satzes von Pythagoras</a> können wir aber den Abstand zerlegen in den Anteil in Richtung der schwarzen Geraden und einen weiteren Anteil rechtwinklig dazu. Eine Minimierung der Abstände rechtwinklig zur Geraden (unter Beibehaltung des Abstands zum Datenzentrum, Länge der roten Linie) bedeutet also eine Maximierung der Abstände in Richtung der schwarzen Geraden (<math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle a^{2}+b^{2}=c^{2}}">

<msup>

</mrow>

</msup>

<msup>

</mrow>

</msup>

<msup>

</mrow>

</msup>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle a^{2}+b^{2}=c^{2}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/7ef0a5a4b8ab98870ae5d6d7c7b4dfe3fb6612e2.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.505ex; width:12.336ex; height:2.843ex;" alt="{\displaystyle a^{2}+b^{2}=c^{2}}" loading="lazy"> muss erhalten bleiben). Die aufsummierten Quadrate der Abstände in Richtung der schwarzen Geraden bilden die <a href="Varianz_(Stochastik)" title="Varianz (Stochastik)">Varianz</a> der Daten in dieser Richtung.

Dies führt zum folgenden <a href="Algorithmus" title="Algorithmus">Algorithmus</a>: Die erste <a href="Achsensymmetrie" title="Achsensymmetrie">Achse</a> soll so durch die Punktwolke gelegt werden, dass die Varianz der Daten in dieser Richtung maximal wird. Die zweite Achse steht auf der ersten Achse senkrecht. In ihrer Richtung ist die Varianz am zweitgrößten usw.

Für die <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy">-dimensionalen Daten gibt es also grundsätzlich <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy"> Achsen, die aufeinander senkrecht stehen, sie sind <a href="Orthogonal" class="mw-redirect" title="Orthogonal">orthogonal</a>. Die <a href="Totale_Varianz" title="Totale Varianz">totale Varianz</a> der Daten ist die Summe dieser „Achsenvarianzen“. Mit den <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy"> Achsen wird nun ein neues <a href="Koordinatensystem" title="Koordinatensystem">Koordinatensystem</a> in die <a href="Punktwolke" title="Punktwolke">Punktwolke</a> gelegt. Das neue Koordinatensystem kann als <a href="Rotation_(Physik)" title="Rotation (Physik)">Rotation</a> der Variablenachsen dargestellt werden.

Wird nun durch die ersten <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle r'}">

<msup>

</msup>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle r'}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/20f4d06078c3550f2cd0812005ba6301d12cc4c0.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.733ex; height:2.509ex;" alt="{\displaystyle r'}" loading="lazy"> (<math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle r'<p}">

<msup>

</msup>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle r'<p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/2feed4e496ddc9213de47b63b42ddda9da272782.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:6.001ex; height:2.843ex;" alt="{\displaystyle r'<p}" loading="lazy">) Achsen ein hinreichend großer Prozentsatz der totalen Varianz abgedeckt, erscheinen die Hauptkomponenten, die durch die neuen Achsen repräsentiert werden, ausreichend für den Informationsgehalt der Daten. Die totale <a href="Varianz_(Stochastik)" title="Varianz (Stochastik)">Varianz</a> der Daten ist also ein Maß für ihren <a href="Information" title="Information">Informationsgehalt</a>.

Häufig können die Hauptkomponenten inhaltlich nicht interpretiert werden. In der <a href="Statistik" title="Statistik">Statistik</a> spricht man davon, dass ihnen keine verständliche <a href="Hypothese_(Statistik)" title="Hypothese (Statistik)">Hypothese</a> zugeschrieben werden kann (siehe <a href="Faktorenanalyse" title="Faktorenanalyse">Faktorenanalyse</a>).

<div class="mw-heading mw-heading3"><h3 id="Statistisches_Modell">Statistisches Modell</h3></div>

Man betrachtet <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy"> <a href="Zufallsvariable" title="Zufallsvariable">Zufallsvariablen</a> <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle X_{j}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle X_{j}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/ca3cb1ef7c9f25e85e1957e4eb58a72fa16a0066.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -1.005ex; width:2.834ex; height:2.843ex;" alt="{\displaystyle X_{j}}" loading="lazy">, die bezüglich ihrer <a href="Erwartungswert" title="Erwartungswert">Erwartungswerte</a> zentriert sind. Das heißt, ihre Erwartungswerte wurden von der Zufallsvariablen subtrahiert. Diese Zufallsvariablen werden in einem <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy">-dimensionalen <a href="Zufallsvektor" title="Zufallsvektor">Zufallsvektor</a> <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {X} }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {X} }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/9f75966a2f9d5672136fa9401ee1e75008f95ffd.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:2.019ex; height:2.176ex;" alt="{\displaystyle \mathbf {X} }" loading="lazy"> zusammengefasst. Dieser hat als <a href="Erwartungswertvektor" class="mw-redirect" title="Erwartungswertvektor">Erwartungswertvektor</a> den <a href="Nullvektor" title="Nullvektor">Nullvektor</a> und die <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle (p\times p)}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle (p\times p)}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/c06781fa2dc2929e45d1099cdef4aae660bb0775.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:6.989ex; height:2.843ex;" alt="{\displaystyle (p\times p)}" loading="lazy">-<a href="Kovarianzmatrix" title="Kovarianzmatrix">Kovarianzmatrix</a> <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {\Sigma } =E[\mathbf {X} \mathbf {X} ^{T}]}">

</mrow>

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Sigma } =E[\mathbf {X} \mathbf {X} ^{T}]}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/faca8e8e150188962a5c7d236f7816ae9424f915.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:13.527ex; height:3.176ex;" alt="{\displaystyle \mathbf {\Sigma } =E[\mathbf {X} \mathbf {X} ^{T}]}" loading="lazy">, die <a href="Symmetrische_Matrix" title="Symmetrische Matrix">symmetrisch</a> und <a href="Positiv_semidefinit" class="mw-redirect" title="Positiv semidefinit">positiv semidefinit</a> ist. Die <a href="Eigenwert" class="mw-redirect" title="Eigenwert">Eigenwerte</a> <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \lambda _{j}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \lambda _{j}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/fa91daf9145f27bb95746fd2a37537342d587b77.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -1.005ex; width:2.265ex; height:2.843ex;" alt="{\displaystyle \lambda _{j}}" loading="lazy">, <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle j=1,\dots ,p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle j=1,\dots ,p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/41d0a215018e41cec1d8b0dfe0e168e54f3d3b7a.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.027ex; width:11.593ex; height:2.509ex;" alt="{\displaystyle j=1,\dots ,p}" loading="lazy">, der <a href="Matrix_(Mathematik)" title="Matrix (Mathematik)">Matrix</a> <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {\Sigma } }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Sigma } }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/90f99b56fe6ada781ecd0f8a45b6e787b6dfed56.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.931ex; height:2.176ex;" alt="{\displaystyle \mathbf {\Sigma } }" loading="lazy"> sind absteigend der Größe nach geordnet (häufig werden die Eigenwerte dann in einem <a href="Paretodiagramm" title="Paretodiagramm">Paretodiagramm</a> dargestellt). Sie werden als Diagonalelemente in der <a href="Diagonalmatrix" title="Diagonalmatrix">Diagonalmatrix</a> <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {\Lambda } }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Lambda } }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/baacea0858757143db3b530f015a72d1224b44fa.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.873ex; height:2.176ex;" alt="{\displaystyle \mathbf {\Lambda } }" loading="lazy"> aufgeführt. Die zu ihnen gehörenden <a href="Eigenvektor" class="mw-redirect" title="Eigenvektor">Eigenvektoren</a> bilden die <a href="Orthogonale_Matrix" title="Orthogonale Matrix">orthogonale Matrix</a> <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {\Gamma } }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Gamma } }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/0598e65919f9e2d3646f15d6a489a1b4dc47025f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.608ex; height:2.176ex;" alt="{\displaystyle \mathbf {\Gamma } }" loading="lazy">. Es gilt dann

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Lambda } =\mathbf {\Gamma } ^{T}\mathbf {\Sigma } \mathbf {\Gamma } .}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/756f57dcc5086e46f155fc222818fbd526011415.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:12.156ex; height:2.676ex;" alt="{\displaystyle \mathbf {\Lambda } =\mathbf {\Gamma } ^{T}\mathbf {\Sigma } \mathbf {\Gamma } .}" loading="lazy">

Wird der <a href="Zufallsvektor" title="Zufallsvektor">Zufallsvektor</a> <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {X} }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {X} }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/9f75966a2f9d5672136fa9401ee1e75008f95ffd.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:2.019ex; height:2.176ex;" alt="{\displaystyle \mathbf {X} }" loading="lazy"> <a href="Lineare_Transformation" class="mw-redirect" title="Lineare Transformation">linear transformiert</a> zu

</mrow>

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {X} \mapsto \mathbf {Y} =\mathbf {\Gamma } ^{T}\mathbf {X} }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/9003f3c66ca3a47b27943727cffb444858c3f936.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:15.769ex; height:2.676ex;" alt="{\displaystyle \mathbf {X} \mapsto \mathbf {Y} =\mathbf {\Gamma } ^{T}\mathbf {X} }" loading="lazy">, <a href="Kovarianzmatrix#Grundlegende_Eigenschaften" title="Kovarianzmatrix">dann ist die Kovarianzmatrix von <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {Y} }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {Y} }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/c92a7716a99fadda050469747fce1e475e0ec549.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:2.019ex; height:2.176ex;" alt="{\displaystyle \mathbf {Y} }" loading="lazy"> gerade die Diagonalmatrix <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {\Lambda } }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Lambda } }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/baacea0858757143db3b530f015a72d1224b44fa.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.873ex; height:2.176ex;" alt="{\displaystyle \mathbf {\Lambda } }" loading="lazy"></a>, da für die

die Kovarianzmatrix des transformierten Zufallsvektors gilt:

<msup>

</mrow>

</mrow>

</msup>

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

<msup>

</mrow>

</msup>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle E[\mathbf {\Gamma } ^{T}\mathbf {X} (\mathbf {\Gamma } ^{T}\mathbf {X} )^{T}]=E[\mathbf {\Gamma } ^{T}\mathbf {X} \mathbf {X} ^{T}\mathbf {\Gamma } ]=\mathbf {\Gamma } ^{T}E[\mathbf {X} \mathbf {X} ^{T}]\mathbf {\Gamma } =\mathbf {\Gamma } ^{T}\Sigma \mathbf {\Gamma } =\mathbf {\Lambda } }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/e473712c93d88bd160a3bafb88c1af6c3c393d27.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:63.061ex; height:3.176ex;" alt="{\displaystyle E[\mathbf {\Gamma } ^{T}\mathbf {X} (\mathbf {\Gamma } ^{T}\mathbf {X} )^{T}]=E[\mathbf {\Gamma } ^{T}\mathbf {X} \mathbf {X} ^{T}\mathbf {\Gamma } ]=\mathbf {\Gamma } ^{T}E[\mathbf {X} \mathbf {X} ^{T}]\mathbf {\Gamma } =\mathbf {\Gamma } ^{T}\Sigma \mathbf {\Gamma } =\mathbf {\Lambda } }" loading="lazy">.</dd></dl>

Zur Verdeutlichung betrachten wir einen dreidimensionalen Zufallsvektor

</mrow>

<mrow>

<mtr>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

</mtr>

<mtr>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

</mtr>

<mtr>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

</mtr>

</mtable>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {X} ={\begin{pmatrix}X_{1}\\X_{2}\\X_{3}\end{pmatrix}}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/77a23e0b47699e38cef5d45e9a66f4f7bce310a7.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -4.005ex; width:12.915ex; height:9.176ex;" alt="{\displaystyle \mathbf {X} ={\begin{pmatrix}X_{1}\\X_{2}\\X_{3}\end{pmatrix}}}" loading="lazy">.</dd></dl>

Die Matrix der Eigenwerte der Kovarianzmatrix <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {\Sigma } }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Sigma } }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/90f99b56fe6ada781ecd0f8a45b6e787b6dfed56.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.931ex; height:2.176ex;" alt="{\displaystyle \mathbf {\Sigma } }" loading="lazy"> von <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {X} }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {X} }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/9f75966a2f9d5672136fa9401ee1e75008f95ffd.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:2.019ex; height:2.176ex;" alt="{\displaystyle \mathbf {X} }" loading="lazy"> ist

</mrow>

<mrow>

<mtr>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

<mtd>

</mtd>

<mtd>

</mtd>

</mtr>

<mtr>

<mtd>

</mtd>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

<mtd>

</mtd>

</mtr>

<mtr>

<mtd>

</mtd>

<mtd>

</mtd>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

</mtr>

</mtable>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Lambda } ={\begin{pmatrix}\lambda _{A}&0&0\\0&\lambda _{B}&0\\0&0&\lambda _{C}\end{pmatrix}},}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/7dd0a024b915aab5d773ed33e7b3cfa260d7735a.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -4.005ex; width:23.573ex; height:9.176ex;" alt="{\displaystyle \mathbf {\Lambda } ={\begin{pmatrix}\lambda _{A}&0&0\\0&\lambda _{B}&0\\0&0&\lambda _{C}\end{pmatrix}},}" loading="lazy"></dd></dl>

wobei <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \lambda _{A}\geq \lambda _{B}\geq \lambda _{C}}">

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \lambda _{A}\geq \lambda _{B}\geq \lambda _{C}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/905b7a1ead7b0393a1c0a0806b4d4fb5d12029ae.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:14.688ex; height:2.509ex;" alt="{\displaystyle \lambda _{A}\geq \lambda _{B}\geq \lambda _{C}}" loading="lazy"> ist.

Die normierten <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle (3\times 1)}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle (3\times 1)}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/aed0195d0c44f850f88f59bcf4eb1b9dd51ecad6.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:6.975ex; height:2.843ex;" alt="{\displaystyle (3\times 1)}" loading="lazy">-Eigenvektoren <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle {\boldsymbol {\gamma }}_{j}}">

<msub>

</mrow>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle {\boldsymbol {\gamma }}_{j}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/7f7fd074529edd068faedcc6febf546a73708623.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -1.171ex; width:2.281ex; height:2.509ex;" alt="{\displaystyle {\boldsymbol {\gamma }}_{j}}" loading="lazy"> lassen sich als Spalten der Matrix <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {\Gamma } }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Gamma } }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/0598e65919f9e2d3646f15d6a489a1b4dc47025f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.608ex; height:2.176ex;" alt="{\displaystyle \mathbf {\Gamma } }" loading="lazy"> zusammenfassen:

</mrow>

<mrow>

<mtr>

<mtd>

<msub>

</mrow>

</mrow>

</msub>

</mtd>

<mtd>

<msub>

</mrow>

</mrow>

</msub>

</mtd>

<mtd>

<msub>

</mrow>

</mrow>

</msub>

</mtd>

</mtr>

</mtable>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Gamma } ={\begin{pmatrix}{\boldsymbol {\gamma }}_{A}&{\boldsymbol {\gamma }}_{B}&{\boldsymbol {\gamma }}_{C}\end{pmatrix}}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/4ab8f330dd1a24f5b5c32aa6d0b7e67c1fd8d066.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:20.453ex; height:2.843ex;" alt="{\displaystyle \mathbf {\Gamma } ={\begin{pmatrix}{\boldsymbol {\gamma }}_{A}&{\boldsymbol {\gamma }}_{B}&{\boldsymbol {\gamma }}_{C}\end{pmatrix}}}" loading="lazy"></dd></dl>

<mrow>

<mtr>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

</mtr>

<mtr>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

</mtr>

<mtr>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

<mtd>

<msub>

</mrow>

</msub>

</mtd>

</mtr>

</mtable>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle ={\begin{pmatrix}\gamma _{1A}&\gamma _{1B}&\gamma _{1C}\\\gamma _{2A}&\gamma _{2B}&\gamma _{2C}\\\gamma _{3A}&\gamma _{3B}&\gamma _{3C}\end{pmatrix}}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/2e8a211ce70746accc7054a936bc60b91ed2401f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -4.171ex; width:22.421ex; height:9.509ex;" alt="{\displaystyle ={\begin{pmatrix}\gamma _{1A}&\gamma _{1B}&\gamma _{1C}\\\gamma _{2A}&\gamma _{2B}&\gamma _{2C}\\\gamma _{3A}&\gamma _{3B}&\gamma _{3C}\end{pmatrix}}}" loading="lazy">.</dd></dl>

Die <a href="Matrix-Vektor-Multiplikation" class="mw-redirect" title="Matrix-Vektor-Multiplikation">Matrix-Vektor-Multiplikation</a>

</mrow>

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {X} \rightarrow \mathbf {Y} =\mathbf {\Gamma } ^{T}\mathbf {X} }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/24f632f1aabd1588b5f79748aea9e700f7c96155.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:15.769ex; height:2.676ex;" alt="{\displaystyle \mathbf {X} \rightarrow \mathbf {Y} =\mathbf {\Gamma } ^{T}\mathbf {X} }" loading="lazy"></dd></dl>

ergibt die Gleichungen

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y_{A}=\gamma _{1A}X_{1}+\gamma _{2A}X_{2}+\gamma _{3A}X_{3}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/8260dde2eaa550679c2d5257de9cd87354ef1af8.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:31.003ex; height:2.676ex;" alt="{\displaystyle Y_{A}=\gamma _{1A}X_{1}+\gamma _{2A}X_{2}+\gamma _{3A}X_{3}}" loading="lazy"></dd>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y_{B}=\gamma _{1B}X_{1}+\gamma _{2B}X_{2}+\gamma _{3B}X_{3}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/45364b0607e9b10c6704586daa8ac106ee144af4.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:31.062ex; height:2.676ex;" alt="{\displaystyle Y_{B}=\gamma _{1B}X_{1}+\gamma _{2B}X_{2}+\gamma _{3B}X_{3}}" loading="lazy"></dd>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y_{C}=\gamma _{1C}X_{1}+\gamma _{2C}X_{2}+\gamma _{3C}X_{3}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/1aeddbf4731b54e3aefac54a31da1714c188b778.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:31.069ex; height:2.676ex;" alt="{\displaystyle Y_{C}=\gamma _{1C}X_{1}+\gamma _{2C}X_{2}+\gamma _{3C}X_{3}}" loading="lazy">.</dd></dl>

Die Eigenvektoren bilden also die (maximal) p-dimensionale <a href="Rotationsmatrix" class="mw-redirect" title="Rotationsmatrix">Rotationsmatrix</a>, die sog. Ladungen, welche in der Matrixmultiplikation <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {Y} =\mathbf {\Gamma } ^{T}\mathbf {X} }">

</mrow>

<msup>

</mrow>

</mrow>

</msup>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {Y} =\mathbf {\Gamma } ^{T}\mathbf {X} }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/97756cb9efd0fbcba90b09c05f6b3486abe9146a.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:10.135ex; height:2.676ex;" alt="{\displaystyle \mathbf {Y} =\mathbf {\Gamma } ^{T}\mathbf {X} }" loading="lazy"> die

Punktwolke <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle X}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle X}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/68baa052181f707c662844a465bfeeb135e82bab.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.98ex; height:2.176ex;" alt="{\displaystyle X}" loading="lazy"> so dreht, dass die Koordinaten der Punkte im neuen System gleich der Matrix <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle Y}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/961d67d6b454b4df2301ac571808a3538b3a6d3f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.171ex; width:1.773ex; height:2.009ex;" alt="{\displaystyle Y}" loading="lazy"> sind. Die Varianz der Hauptkomponente A, <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle Y_{A}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y_{A}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/bdc361b3764d071879684a21d6ab84a043df7923.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.815ex; height:2.509ex;" alt="{\displaystyle Y_{A}}" loading="lazy"> ist

<msub>

</mrow>

</msub>

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \operatorname {Var} (Y_{A})=\lambda _{A}.}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/3676be2cd3dac57ba1c3d66f8e62ca2b5723f164.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:15.007ex; height:2.843ex;" alt="{\displaystyle \operatorname {Var} (Y_{A})=\lambda _{A}.}" loading="lazy"></dd></dl>

Also hat die Hauptkomponente <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle Y_{A}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y_{A}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/bdc361b3764d071879684a21d6ab84a043df7923.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.815ex; height:2.509ex;" alt="{\displaystyle Y_{A}}" loading="lazy"> den größten Anteil an der Gesamtvarianz der Daten, <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle Y_{B}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y_{B}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/d1b19091196b5ba697a6374f3eaa3bd9d6e115eb.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.83ex; height:2.509ex;" alt="{\displaystyle Y_{B}}" loading="lazy"> den zweitgrößten Anteil usw. Die Elemente <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \gamma _{jk}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \gamma _{jk}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/cb9e18e535e2ab3662a4c6e9f1f49b2d1ddfcfea.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -1.005ex; width:2.97ex; height:2.343ex;" alt="{\displaystyle \gamma _{jk}}" loading="lazy">, <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle j=1,2,3}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle j=1,2,3}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/6a72f1569592fb0a05556342bac77e8f99ee7a4f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.027ex; width:9.638ex; height:2.509ex;" alt="{\displaystyle j=1,2,3}" loading="lazy">; <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle k=A,B,C}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle k=A,B,C}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/acffdb5f312b007a6e331a86cbbe3c4cf4985e6c.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:11.651ex; height:2.509ex;" alt="{\displaystyle k=A,B,C}" loading="lazy">, könnte man als Beitrag der Variablen <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle X_{j}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle X_{j}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/ca3cb1ef7c9f25e85e1957e4eb58a72fa16a0066.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -1.005ex; width:2.834ex; height:2.843ex;" alt="{\displaystyle X_{j}}" loading="lazy"> am Faktor <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle k}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle k}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/c3c9a2c7b599b37105512c5d570edc034056dd40.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.211ex; height:2.176ex;" alt="{\displaystyle k}" loading="lazy"> bezeichnen. Die Ladungsmatrix <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \mathbf {\Gamma } }">

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \mathbf {\Gamma } }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/0598e65919f9e2d3646f15d6a489a1b4dc47025f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.608ex; height:2.176ex;" alt="{\displaystyle \mathbf {\Gamma } }" loading="lazy"> gibt an, „wie hoch eine Variable <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle X}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle X}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/68baa052181f707c662844a465bfeeb135e82bab.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.98ex; height:2.176ex;" alt="{\displaystyle X}" loading="lazy"> auf einen Faktor <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle Y}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/961d67d6b454b4df2301ac571808a3538b3a6d3f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.171ex; width:1.773ex; height:2.009ex;" alt="{\displaystyle Y}" loading="lazy"> lädt“. Der Ladungswert einer Variablen für eine Hauptkomponente misst, wie viele Einheitsschritte man entlang dieser Variablenachse 'laufen' müsste, um einen Einheitsschritt entlang der Hauptkomponente zu erhalten. Die Variablen-Ladungen drücken also aus, welche Unterschiede bei den alten Variablen diese Hauptkomponente besonders gut misst.

<div class="mw-heading mw-heading3"><h3 id="Schätzung_der_Modellparameter">Schätzung der Modellparameter</h3></div>

Liegen konkret erhobene Daten mit <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy"> Merkmalen vor (d. h., jeder Datenpunkt ist ein <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/81eac1e205430d1f40810df36a0edffdc367af36.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:1.259ex; height:2.009ex;" alt="{\displaystyle p}" loading="lazy">-dimensionaler <a href="Vektor" title="Vektor">Vektor</a>), wird aus den Merkmalswerten die <a href="Stichproben-Korrelationsmatrix" class="mw-redirect" title="Stichproben-Korrelationsmatrix">Stichproben-Korrelationsmatrix</a> errechnet. Aus dieser Matrix bestimmt man dann die Eigenwerte und Eigenvektoren für die Hauptkomponentenanalyse. Da die <a href="Kovarianzmatrix" title="Kovarianzmatrix">Kovarianzmatrix</a> eine symmetrische <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle p\times p}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle p\times p}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/67e6de741a3aa8176f5a487de8e8f602aa75c5e4.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; margin-left: -0.089ex; width:5.269ex; height:2.009ex;" alt="{\displaystyle p\times p}" loading="lazy">-Matrix ist, sind für ihre Berechnung insgesamt <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle (p^{2}+p)/2}">

<msup>

</mrow>

</msup>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle (p^{2}+p)/2}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/bb742fb27180f7a80750239084ec8542ff1eb1d0.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:10.368ex; height:3.176ex;" alt="{\displaystyle (p^{2}+p)/2}" loading="lazy"> Parameter zu schätzen. Dies ist nur dann sinnvoll, wenn die Anzahl <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle N}">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle N}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/f5e3890c981ae85503089652feb48b191b57aae3.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:2.064ex; height:2.176ex;" alt="{\displaystyle N}" loading="lazy"> der Datenpunkte im Datensatz deutlich größer ist, d. h., wenn <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle N\gg (p^{2}+p)/2}">

<msup>

</mrow>

</msup>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle N\gg (p^{2}+p)/2}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/07d1789dd5f5c6cbd9d0b1b3299328654dd2974f.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.838ex; width:16.045ex; height:3.176ex;" alt="{\displaystyle N\gg (p^{2}+p)/2}" loading="lazy">. Anderenfalls ist die Bestimmung der Kovarianzmatrix stark fehlerbehaftet und diese Methode sollte nicht angewandt werden.

<div class="mw-heading mw-heading2"><h2 id="Beispiele">Beispiele</h2></div>

Betrachtet werden Artillerieschiffe des Zweiten Weltkriegs (siehe Kriegsschiffsdaten). Sie sind eingeteilt in die Klassen <a href="Schlachtschiff" title="Schlachtschiff">Schlachtschiffe</a>, <a href="Schwerer_Kreuzer" title="Schwerer Kreuzer">schwere Kreuzer</a>, <a href="Leichter_Kreuzer" title="Leichter Kreuzer">leichte Kreuzer</a> und <a href="Zerst%C3%B6rer" title="Zerstörer">Zerstörer</a>. Es liegen Daten für ca. 200 Schiffe vor. Es wurden die Merkmale Länge, Breite, <a href="Wasserverdr%C3%A4ngung" class="mw-redirect" title="Wasserverdrängung">Wasserverdrängung</a>, <a href="Tiefgang" title="Tiefgang">Tiefgang</a>, <a href="Leistung_(Physik)" title="Leistung (Physik)">Leistung</a> der Maschinen, Geschwindigkeit (längerfristig mögliche Höchstgeschwindigkeit), <a href="Reichweite_(Transportwesen)" title="Reichweite (Transportwesen)">Aktionsradius</a> und Mannschaftsstärke erfasst. Die Merkmale <a href="L%C3%A4nge_(Mathematik)" title="Länge (Mathematik)">Länge</a>, Breite, <a href="Schiffsma%C3%9Fe" title="Schiffsmaße">Wasserverdrängung</a> und Tiefgang können so aufgefasst werden, dass sie alle einen ähnlichen Sachverhalt messen, den man als den Faktor „Größe“ beschreiben könnte. Die Frage ist, ob noch andere Faktoren die Daten bestimmen. Es gibt tatsächlich noch einen zweiten deutlichen Faktor, der vor allem durch die Leistung der Maschinen und die Höchstgeschwindigkeit bestimmt wird. Man könnte ihn zu einem Faktor „Geschwindigkeit“ zusammenfassen.

Andere Beispiele für Anwendungen der Hauptkomponentenanalyse sind:

<ul><li>Wendet man die Hauptkomponentenanalyse auf das <a href="Kaufverhalten" title="Kaufverhalten">Kaufverhalten</a> von <a href="Konsumentenverhalten" class="mw-redirect" title="Konsumentenverhalten">Konsumenten</a> an, gibt es möglicherweise latente Faktoren wie <a href="Sozialer_Status" title="Sozialer Status">sozialer Status</a>, Alter oder Familienstand, die bestimmte Käufe motivieren. Hier könnte man durch gezielte Werbung die Kauflust entsprechend <a href="Kanalisierung_(Entwicklung)" title="Kanalisierung (Entwicklung)">kanalisieren</a>.</li>

<li>Hat man ein statistisches Modell mit sehr vielen Merkmalen, könnte mit Hilfe der Hauptkomponentenanalyse gegebenenfalls die Zahl der Variablen im Modell reduziert werden, was meistens die Modellqualität steigert.</li>

<li>Anwendung findet die Hauptkomponentenanalyse auch in der <a href="Bildverarbeitung" title="Bildverarbeitung">Bildverarbeitung</a> – insbesondere bei der <a href="Fernerkundung" title="Fernerkundung">Fernerkundung</a>. Dabei kann man <a href="Satellitenbild" class="mw-redirect" title="Satellitenbild">Satellitenbilder</a> analysieren und Rückschlüsse daraus ziehen.</li>

<li>Ein weiteres Gebiet ist die <a href="K%C3%BCnstliche_Intelligenz" title="Künstliche Intelligenz">Künstliche Intelligenz</a>, zusammen mit den <a href="K%C3%BCnstliches_neuronales_Netz" title="Künstliches neuronales Netz">Neuronalen Netzen</a>. Dort dient die PCA zur Merkmalstrennung im Rahmen der automatischen <a href="Klassifizierung" title="Klassifizierung">Klassifizierung</a> bzw. in der <a href="Mustererkennung" title="Mustererkennung">Mustererkennung</a>.</li></ul>

<div class="mw-heading mw-heading3"><h3 id="Beispiel_mit_drei_Variablen">Beispiel mit drei Variablen</h3></div>

Das oben genannte Anwendungsbeispiel wird jetzt in Zahlen verdeutlicht:

Wir betrachten die Merkmale Länge, Breite und Geschwindigkeit. Die <a href="Streudiagramm" title="Streudiagramm">Streudiagramme</a> geben einen Eindruck über deren paarweise <a href="Gemeinsame_Verteilung_von_Zufallsvariablen" title="Gemeinsame Verteilung von Zufallsvariablen">Verteilung</a> wieder.

Mit diesen drei Merkmalen wurde mithilfe eines <a href="Liste_von_Statistik-Software" title="Liste von Statistik-Software">Statistikprogramms</a> eine Hauptkomponentenanalyse durchgeführt. Die Ladungsmatrix <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \Gamma }">

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \Gamma }</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/4cfde86a3f7ec967af9955d0988592f0693d2b19.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.338ex; width:1.453ex; height:2.176ex;" alt="{\displaystyle \Gamma }" loading="lazy"> ist

<td>Komponente

</td>

<td>A

</td>

<td>B

</td>

<td>C

</td></tr>

<tr>

<td>Länge

</td>

<td>0,862

</td>

<td>0.977

</td>

<td>–0.679

</td></tr>

<tr>

<td>Breite

</td>

<td>0.481

</td>

<td>0,083

</td>

<td>0.730

</td></tr>

<tr>

<td>Geschwindigkeit

</td>

<td>–0.159

</td>

<td>0.198

</td>

<td>0.082

</td></tr></tbody></table>

Die Komponente <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle y_{A}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle y_{A}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/5158a54e04da6e21d12c2d17be9622262df3dc83.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.604ex; height:2.009ex;" alt="{\displaystyle y_{A}}" loading="lazy"> setzt sich also zusammen aus

<msub>

</mrow>

</msub>

<mtext>Länge</mtext>

</mrow>

<mtext>Breite</mtext>

</mrow>

<mtext>Geschwindigkeit</mtext>

</mrow>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle Y_{A}=0{,}862\cdot {\text{Länge}}+0{,}481\cdot {\text{Breite}}-0{,}159\cdot {\text{Geschwindigkeit}}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/94d61ee2b315ac95020edf570a25dbb78457a001.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -1.171ex; width:61.681ex; height:3.343ex;" alt="{\displaystyle Y_{A}=0{,}862\cdot {\text{Länge}}+0{,}481\cdot {\text{Breite}}-0{,}159\cdot {\text{Geschwindigkeit}}}" loading="lazy">.</dd></dl>

Vor allem die Beiträge von Länge und Breite zur Komponente A sind groß. Bei Komponente B ist vor allem der Beitrag der Länge groß, während die Komponente C am stärksten von der Variable Breite getragen wird.

Die Gesamtvarianz der Daten verteilt sich wie folgt auf die Hauptkomponenten:

<td>Komponente

</td>

<td>Eigenwert <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle \lambda _{j}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle \lambda _{j}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/fa91daf9145f27bb95746fd2a37537342d587b77.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -1.005ex; width:2.265ex; height:2.843ex;" alt="{\displaystyle \lambda _{j}}" loading="lazy">

</td>

<td>Prozent der Gesamtvarianz

</td>

<td>Prozentualer Anteil der Kumulierten Varianz an Gesamtvarianz

</td></tr>

<tr>

<td>A

</td>

<td>2,16

</td>

<td>71,97

</td>

<td>71,97

</td></tr>

<tr>

<td>B

</td>

<td>0,77

</td>

<td>25,67

</td>

<td>97,64

</td></tr>

<tr>

<td>C

</td>

<td>0,07

</td>

<td>2,36

</td>

<td>100,00

</td></tr></tbody></table>

Es werden also durch die ersten zwei Hauptkomponenten bereits 97,64 % der gesamten Varianz der Daten abgedeckt. Die Komponente C trägt nichts Nennenswertes zum Informationsgehalt bei.

<div class="mw-heading mw-heading3"><h3 id="Beispiel_mit_acht_Variablen">Beispiel mit acht Variablen</h3></div>

Es wurden nun acht Merkmale der Artillerieschiffe einer Hauptkomponentenanalyse unterzogen. Die Tabelle der Ladungsmatrix, hier „Komponentenmatrix“ genannt, zeigt, dass vor allem die Variablen Länge, Breite, Tiefgang, Wasserverdrängung und Mannschaftsstärke hoch auf die erste Hauptkomponente laden. Diese Komponente könnte man als „Größe“ bezeichnen. Die zweite Komponente wird zum größten Teil durch PS und Knoten erklärt. Sie könnte „Geschwindigkeit“ genannt werden. Eine dritte Komponente lädt noch hoch auf Aktionsradius.

Die beiden ersten Komponenten decken bereits ca. 84 % der Information der Schiffsdaten ab, die dritte Komponente erfasst noch einmal ca. 10 %. Der zusätzliche Beitrag der restlichen Komponenten ist unerheblich.

<th colspan="9">Komponentenmatrix

</th></tr>

<tr>

</th>

<th colspan="8">Komponente

</th></tr>

<tr>

<th>1

</th>

<th>2

</th>

<th>3

</th>

<th>4

</th>

<th>5

</th>

<th>6

</th>

<th>7

</th>

<th>8

</th></tr>

<tr>

<td>Wasserverdrängung BRT

</td>

<td style="text-align:right">0,948

</td>

<td style="text-align:right">−0,094

</td>

<td style="text-align:right">−0,129

</td>

<td style="text-align:right">0,228

</td>

<td style="text-align:right">0,040

</td>

<td style="text-align:right">0,036

</td>

<td style="text-align:right">0,136

</td>

<td style="text-align:right">0,055

</td></tr>

<tr>

<td>Länge m

</td>

<td style="text-align:right">0,906

</td>

<td style="text-align:right">0,302

</td>

<td style="text-align:right">−0,064

</td>

<td style="text-align:right">−0,209

</td>

<td style="text-align:right">0,128

</td>

<td style="text-align:right">−0,144

</td>

<td style="text-align:right">−0,007

</td>

<td style="text-align:right">−0,050

</td></tr>

<tr>

<td>Breite m

</td>

<td style="text-align:right">0,977

</td>

<td style="text-align:right">−0,128

</td>

<td style="text-align:right">−0,031

</td>

<td style="text-align:right">0,032

</td>

<td style="text-align:right">0,103

</td>

<td style="text-align:right">−0,017

</td>

<td style="text-align:right">−0,014

</td>

<td style="text-align:right">0,129

</td></tr>

<tr>

<td>Tiefgang m

</td>

<td style="text-align:right">0,934

</td>

<td style="text-align:right">−0,276

</td>

<td style="text-align:right">−0,061

</td>

<td style="text-align:right">0,014

</td>

<td style="text-align:right">0,074

</td>

<td style="text-align:right">0,129

</td>

<td style="text-align:right">0,154

</td>

<td style="text-align:right">−0,038

</td></tr>

<tr>

<td>1000 PS

</td>

<td style="text-align:right">0,552

</td>

<td style="text-align:right">0,779

</td>

<td style="text-align:right">−0,196

</td>

<td style="text-align:right">−0,133

</td>

<td style="text-align:right">−0,099

</td>

<td style="text-align:right">0,143

</td>

<td style="text-align:right">−0,038

</td>

<td style="text-align:right">0,018

</td></tr>

<tr>

<td>Knoten sm/h

</td>

<td style="text-align:right">−0,520

</td>

<td style="text-align:right">0,798

</td>

<td style="text-align:right">−0,157

</td>

<td style="text-align:right">0,222

</td>

<td style="text-align:right">0,109

</td>

<td style="text-align:right">−0,038

</td>

<td style="text-align:right">0,071

</td>

<td style="text-align:right">0,004

</td></tr>

<tr>

<td>Aktionsradius 100 sm

</td>

<td style="text-align:right">0,398

</td>

<td style="text-align:right">0,311

</td>

<td style="text-align:right">0,862

</td>

<td style="text-align:right">0,038

</td>

<td style="text-align:right">0,008

</td>

<td style="text-align:right">0,022

</td>

<td style="text-align:right">−0,002

</td>

<td style="text-align:right">−0,005

</td></tr>

<tr>

<td>Mannschaftsstärke

</td>

<td style="text-align:right">0,955

</td>

<td style="text-align:right">0,063

</td>

<td style="text-align:right">−0,052

</td>

<td style="text-align:right">0,108

</td>

<td style="text-align:right">−0,226

</td>

<td style="text-align:right">−0,121

</td>

<td style="text-align:right">0,067

</td>

<td style="text-align:right">0,002

</td></tr>

<tr>

<th colspan="9">Extraktionsmethode: Hauptkomponentenanalyse

</th></tr>

<tr>

<th>

</th>

<th colspan="8">Acht Komponenten extrahiert

</th></tr>

</tbody></table>

<th colspan="4">Varianz der Komponenten

</th></tr>

<tr>

<th rowspan="2">Komponente

</th>

<th colspan="3">Eigenwerte

</th></tr>

<tr>

<th>Total

</th>

<th>% der Varianz

</th>

<th>Kumulativ

</th></tr>

<tr>

<th>1

</th>

<td style="text-align:right">5,19

</td>

<td style="text-align:right">64,88

</td>

<td style="text-align:right">64,88

</td></tr>

<tr>

<th>2

</th>

<td style="text-align:right">1,54

</td>

<td style="text-align:right">19,22

</td>

<td style="text-align:right">84,10

</td></tr>

<tr>

<th>3

</th>

<td style="text-align:right">0,83

</td>

<td style="text-align:right">10,43

</td>

<td style="text-align:right">94,53

</td></tr>

<tr>

<th>4

</th>

<td style="text-align:right">0,18

</td>

<td style="text-align:right">2,22

</td>

<td style="text-align:right">96,74

</td></tr>

<tr>

<th>5

</th>

<td style="text-align:right">0,11

</td>

<td style="text-align:right">1,34

</td>

<td style="text-align:right">98,08

</td></tr>

<tr>

<th>6

</th>

<td style="text-align:right">0,08

</td>

<td style="text-align:right">0,95

</td>

<td style="text-align:right">99,03

</td></tr>

<tr>

<th>7

</th>

<td style="text-align:right">0,05

</td>

<td style="text-align:right">0,67

</td>

<td style="text-align:right">99,70

</td></tr>

<tr>

<th>8

</th>

<td style="text-align:right">0,02

</td>

<td style="text-align:right">0,30

</td>

<td style="text-align:right">100,00

</td></tr></tbody></table>

<div class="mw-heading mw-heading2"><h2 id="Anwendung_in_der_Clusteranalyse_und_Dimensionsreduktion">Anwendung in der Clusteranalyse und Dimensionsreduktion</h2></div>

Die Hauptkomponentenanalyse (PCA) wird auch häufig in der <a href="Clusteranalyse" title="Clusteranalyse">Clusteranalyse</a> und zur Reduzierung der Dimension des Parameterraums verwendet, insbesondere dann, wenn man noch keinerlei Vorstellung (Modell) von der Struktur der Daten hat. Dabei macht man sich zunutze, dass die PCA das (orthogonale) <a href="Koordinatensystem" title="Koordinatensystem">Koordinatensystem</a> so dreht, dass die <a href="Kovarianzmatrix" title="Kovarianzmatrix">Kovarianzmatrix</a> diagonalisiert wird. Außerdem sortiert die PCA die Reihenfolge der Koordinatenachsen (die Hauptkomponenten) so um, dass die erste Hauptkomponente den größten Anteil der Gesamtstreuung (<a href="Totale_Varianz" title="Totale Varianz">Totale Varianz</a>) im Datensatz enthält, die zweite Hauptkomponente den zweitgrößten Anteil usw. Wie an den Beispielen im vorigen Abschnitt illustriert wurde, kann man meist die hinteren Hauptkomponenten (also diejenigen, welche nur einen geringen Anteil an der Gesamtstreuung enthalten) ersatzlos streichen, ohne dass dadurch ein nennenswerter Informationsverlust entsteht.

Die Grundannahme für die Verwendung der PCA zur Clusteranalyse und Dimensionsreduktion lautet: Die Richtungen mit der größten Streuung (<a href="Varianz" title="Varianz">Varianz</a>) beinhalten die meiste Information.

In diesem Zusammenhang ist sehr wichtig, dass diese Grundannahme lediglich eine <a href="Arbeitshypothese" class="mw-redirect" title="Arbeitshypothese">Arbeitshypothese</a> ist, welche nicht immer zutreffen muss. Um diesen Sachverhalt zu veranschaulichen, folgen zwei Beispiele:

<ul><li>Signal Variance (<a href="Deutsche_Sprache" title="Deutsche Sprache">deutsch</a> Signalvarianz): Die Grafik rechts mit dem Titel PCA Signal Variance zeigt ein Beispiel, bei dem die Annahme zutrifft. Der Datensatz besteht aus zwei <a href="Clusteranalyse" title="Clusteranalyse">Clustern</a> (rot und grün), die klar voneinander getrennt sind. Die Streuung der Datenpunkte innerhalb jedes Clusters ist sehr klein verglichen mit dem „Abstand“ der beiden Cluster. Entsprechend wird die erste Hauptkomponente <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle x_{1}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle x_{1}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/a8788bf85d532fa88d1fb25eff6ae382a601c308.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.384ex; height:2.009ex;" alt="{\displaystyle x_{1}}" loading="lazy"> sein. Außerdem ist klar ersichtlich, dass die erste Hauptkomponente <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle x_{1}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle x_{1}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/a8788bf85d532fa88d1fb25eff6ae382a601c308.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.384ex; height:2.009ex;" alt="{\displaystyle x_{1}}" loading="lazy"> völlig ausreichend ist, um die beiden Cluster voneinander zu trennen, während die zweite Hauptkomponente <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle x_{2}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle x_{2}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/d7af1b928f06e4c7e3e8ebfd60704656719bd766.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.384ex; height:2.009ex;" alt="{\displaystyle x_{2}}" loading="lazy"> dazu keinerlei nützliche Information enthält. Die Anzahl der Dimensionen kann also von 2 auf 1 reduziert werden (durch Vernachlässigung von <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle x_{2}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle x_{2}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/d7af1b928f06e4c7e3e8ebfd60704656719bd766.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.384ex; height:2.009ex;" alt="{\displaystyle x_{2}}" loading="lazy">), ohne dass man dabei wesentliche Informationen über die beiden Cluster verlieren würde. Die Gesamtvarianz des Datensatzes wird also vom Signal dominiert (zwei getrennte Cluster).</li></ul>

<ul><li>Noise Variance (<a href="Deutsche_Sprache" title="Deutsche Sprache">deutsch</a> Rauschvarianz): Die Grafik rechts mit dem Titel PCA Noise Variance zeigt ein Beispiel, bei dem die Annahme nicht zutrifft und die PCA nicht zur Dimensionsreduktion verwendet werden kann. Die Streuung innerhalb der beiden Cluster ist nun deutlich größer und trägt den Hauptanteil an der Gesamtstreuung. Unter der Annahme, dass diese Streuung innerhalb der Cluster durch Rauschen verursacht wird, nennt man diesen Fall noise variance. Die erste Hauptkomponente wird <math xmlns="http://www.w3.org/1998/Math/MathML" alttext="{\displaystyle x_{2}}">

<msub>

</mrow>

</msub>

</mstyle>

</mrow>

<annotation encoding="application/x-tex">{\displaystyle x_{2}}</annotation>

</semantics>

</math><img src="./_assets_/eb734a37dd21ce173a46342d1cc64c92/d7af1b928f06e4c7e3e8ebfd60704656719bd766.svg" class="mwe-math-fallback-image-inline mw-invert skin-invert" aria-hidden="true" style="vertical-align: -0.671ex; width:2.384ex; height:2.009ex;" alt="{\displaystyle x_{2}}" loading="lazy"> sein, welche keinerlei Information über die Trennbarkeit beider Cluster beinhaltet.</li></ul>

Diese beiden Beispiele zeigen, wie man die PCA zur Reduzierung der Dimension und zur <a href="Clusteranalyse" title="Clusteranalyse">Clusteranalyse</a> einsetzen kann bzw., dass dies nicht immer möglich ist. Ob die Grundannahme, dass die Richtungen der größten Streuung auch wirklich die interessantesten sind, zutrifft oder nicht, hängt vom jeweils gegebenen Datensatz ab und lässt sich oft nicht überprüfen – gerade dann, wenn die Anzahl der Dimensionen sehr hoch ist und sich die Daten demzufolge nicht mehr vollständig visualisieren lassen.

<div class="mw-heading mw-heading3"><h3 id="Zusammenhang_mit_der_multidimensionalen_Skalierung">Zusammenhang mit der multidimensionalen Skalierung</h3></div>

Sowohl die <a href="Multidimensionale_Skalierung" title="Multidimensionale Skalierung">multidimensionale Skalierung</a> als auch die Hauptkomponentenanalyse verdichten die Daten. Werden in der (<a href="Metrisches_Einheitensystem" title="Metrisches Einheitensystem">metrischen</a>) multidimensionalen Skalierung euklidische Distanzen verwendet und ist die Dimension der Konfiguration gleich der Zahl der Hauptkomponenten, so liefern beide Verfahren die gleiche Lösung. Dies liegt daran, dass die <a href="Diagonalisierbare_Matrix#Diagonalisierung" title="Diagonalisierbare Matrix">Diagonalisierung</a> der <a href="Kovarianzmatrix" title="Kovarianzmatrix">Kovarianzmatrix</a> (bzw. <a href="Korrelationsmatrix" title="Korrelationsmatrix">Korrelationsmatrix</a>, falls mit standardisierten Daten gearbeitet wird) bei der Hauptkomponentenanalyse einer Rotation des Koordinatensystems entspricht. Dadurch bleiben die Distanzen zwischen den Beobachtungen, die den Ausgangspunkt in der <a href="Multidimensionale_Skalierung" title="Multidimensionale Skalierung">multidimensionalen Skalierung</a> bilden, gleich.

In der multidimensionalen Skalierung können jedoch auch andere Distanzen verwendet werden; insofern kann die Hauptkomponentenanalyse als Spezialfall der multidimensionalen Skalierung betrachtet werden.

<div class="mw-heading mw-heading2"><h2 id="Siehe_auch">Siehe auch</h2></div>

<ul><li><a href="Clusteranalyse" title="Clusteranalyse">Clusteranalyse</a></li>

<li><a href="Diskriminanzanalyse" title="Diskriminanzanalyse">Diskriminanzanalyse</a></li>

<li><a href="Nichtnegative_Matrixfaktorisierung" title="Nichtnegative Matrixfaktorisierung">Nichtnegative Matrixfaktorisierung</a></li>

<li><a href="Projection_Pursuit" title="Projection Pursuit">Projection Pursuit</a></li>

<li><a href="Rotationsverfahren_(Statistik)" title="Rotationsverfahren (Statistik)">Rotationsverfahren (Statistik)</a></li></ul>

<div class="mw-heading mw-heading2"><h2 id="Literatur">Literatur</h2></div>

<ul><li>George H. Dunteman: Principal Components Analysis (= Sage University Papers. Series: Quantitative Applications in the Social Sciences. 69). Sage Publications, Newbury Park CA u. a. 1989, ISBN 0-8039-3014-2.</li>

<li><a href="Ludwig_Fahrmeir" title="Ludwig Fahrmeir">Ludwig Fahrmeir</a>, Alfred Hamerle, <a href="Gerhard_Tutz" title="Gerhard Tutz">Gerhard Tutz</a> (Hrsg.): Multivariate statistische Verfahren. 2., überarbeitete Auflage. de Gruyter, Berlin u. a. 1996, ISBN 3-11-013806-9.</li>

<li>Andreas Handl, Torben Kuhlenkasper: Multivariate Analysemethoden. Theorie und Praxis mit R. 3., wesentlich überarbeitete Auflage. Springer Spektrum, Berlin 2017, ISBN 978-3-662-54753-3.</li>

<li><a href="Joachim_Hartung" title="Joachim Hartung">Joachim Hartung</a>, Bärbel Elpelt: Multivariate Statistik. Lehr- und Handbuch der angewandten Statistik. 6., unwesentlich veränderte Auflage. Oldenbourg, München u. a. 1999, ISBN 3-486-25287-9.</li>

<li>Trevor Hastie, Robert Tibshirani, <a href="Jerome_Friedman" class="mw-redirect" title="Jerome Friedman">Jerome Friedman</a>: The Elements of Statistical Learning. Data Mining, Inference, and Prediction. Springer, New York NY u. a. 20010-387-95284-5.</li>

<li>Waltraud Kessler: Multivariate Datenanalyse für die Pharma-, Bio- und Prozessanalytik. Ein Lehrbuch. Wiley-VCH, Weinheim 2007, ISBN 978-3-527-31262-7 (Eine Einführung in die PCA mit Beispiel-CD).</li>

<li>Wojtek J. Krzanowski: Principles of Multivariate Analysis. A User’s Perspective (= Oxford Statistical Science Series. 22 (recte: 23)). Revised edition. Oxford University Press, Oxford u. a. 2000, ISBN 0-19-850708-9.</li>

<li>Kantilal V. Mardia, John T. Kent, John M. Bibby: Multivariate Analysis. Academic Press, Amsterdam u. a. 1979, ISBN 0-12-471250-9.</li>

<li>Thomas D. Wickens: The Geometry of Multivariate Statistics. Erlbaum, Hillsdale 1995, ISBN 978-0-8058-1656-3.</li></ul>

<div class="mw-heading mw-heading2"><h2 id="Weblinks">Weblinks</h2></div>

<ul><li>Lindsay I. Smith: <a rel="nofollow" class="external text" href="https://web.archive.org/web/20210309115736/http://www.cs.otago.ac.nz/cosc453/student_tutorials/principal_components.pdf">A tutorial on Principal Components Analysis.</a> (PDF; 117 kB) (Internet Archive, archiviert am 9. März 2021)</li></ul>

<div class="mw-heading mw-heading2"><h2 id="Einzelnachweise">Einzelnachweise</h2></div>

<li id="cite_note-1"><a href="#cite_ref-1">↑</a> <a href="Karl_Pearson" title="Karl Pearson">Karl Pearson</a>: On lines and planes of closest fit to systems of points in space. In: <a href="The_London%2C_Edinburgh%2C_and_Dublin_Philosophical_Magazine_and_Journal_of_Science" class="mw-redirect" title="The London, Edinburgh, and Dublin Philosophical Magazine and Journal of Science">The London, Edinburgh, and Dublin Philosophical Magazine and Journal of Science</a>. Series 6, Band 2, Nummer 11, 1901, S. 559–572, <a href="Digital_Object_Identifier" title="Digital Object Identifier">doi</a>:<a rel="nofollow" class="external text" href="https://doi.org/10.1080/14786440109462720">10.1080/14786440109462720</a>.

</li>

<li id="cite_note-2"><a href="#cite_ref-2">↑</a> <a rel="nofollow" class="external text" href="https://doi.org/10.1007/978-3-531-92038-2_15">Hauptkomponentenanalyse und explorative Faktorenanalyse.</a> In: SpringerLink. VS Verlag für Sozialwissenschaften, 2010, abgerufen am 12. September 2024.<span style="display: none;" class="Z3988" title="ctx_ver=Z39.88-2004&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Adc&rfr_id=info%3Asid%2Fde.wikipedia.org%3AHauptkomponentenanalyse&rft.title=Hauptkomponentenanalyse+und+explorative+Faktorenanalyse&rft.description=Hauptkomponentenanalyse+und+explorative+Faktorenanalyse&rft.identifier=&rft.publisher=VS+Verlag+f%C3%BCr+Sozialwissenschaften&rft.date=2010&rft.language=de">

</li>

<li id="cite_note-3"><a href="#cite_ref-3">↑</a> Hervé Abdi, Lynne J. Williams: <cite class="lang" lang="en" dir="auto" style="font-style:italic">Principal component analysis</cite>. In: <cite class="lang" lang="en" dir="auto" style="font-style:italic">WIREs (Wiley Interdisciplinary Reviews) Computational Statistics</cite>. Band 2, Nr. 4. Wiley, 2010, S. 433–459, <a href="Digital_Object_Identifier" title="Digital Object Identifier">doi</a>:<a rel="nofollow" class="external text" href="https://doi.org/10.1002/wics.101">10.1002/wics.101</a> (englisch).<span class="Z3988" title="ctx_ver=Z39.88-2004&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Ajournal&rfr_id=info:sid/de.wikipedia.org:Hauptkomponentenanalyse&rft.atitle=Principal+component+analysis&rft.au=Herv%C3%A9+Abdi%2C+Lynne+J.+Williams&rft.date=2010&rft.doi=10.1002%2Fwics.101&rft.genre=journal&rft.issue=4&rft.jtitle=WIREs+%28Wiley+Interdisciplinary+Reviews%29+Computational+Statistics&rft.pages=433-459&rft.pub=Wiley&rft.volume=2" style="display:none">

</li>

<li id="cite_note-4"><a href="#cite_ref-4">↑</a> Thomas D. Wickens: <cite class="lang" lang="en" dir="auto" style="font-style:italic">The Geometry of Multivariate Statistics</cite>. 1. Auflage. Erlbaum, Hillsdale 1995, ISBN 978-0-8058-1656-3, chapter 9 "Principal-component analysis", S. 127–143 (englisch).<span class="Z3988" title="ctx_ver=Z39.88-2004&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Abookitem&rfr_id=info:sid/de.wikipedia.org:Hauptkomponentenanalyse&rft.atitle=chapter+9+%22Principal-component+analysis%22&rft.au=Thomas+D.+Wickens&rft.btitle=The+Geometry+of+Multivariate+Statistics&rft.date=1995&rft.edition=1.&rft.genre=bookitem&rft.isbn=9780805816563&rft.pages=127-143&rft.place=Hillsdale&rft.pub=Erlbaum" style="display:none">

</li>

<li id="cite_note-5"><a href="#cite_ref-5">↑</a> Pierre Legendre, Louis Legendre: <cite style="font-style:italic">Numerical Ecology.</cite> (= <cite style="font-style:italic">Developments in Environmental Modelling</cite>. Band 24). 3. Auflage. Elsevier, Amsterdam 2012, ISBN 978-0-444-53868-0, S. 445.<span class="Z3988" title="ctx_ver=Z39.88-2004&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Abook&rfr_id=info:sid/de.wikipedia.org:Hauptkomponentenanalyse&rft.au=Pierre+Legendre%2C+Louis+Legendre&rft.btitle=Numerical+Ecology.&rft.date=2012&rft.edition=3.&rft.genre=book&rft.isbn=9780444538680&rft.pages=445&rft.place=Amsterdam&rft.pub=Elsevier&rft.series=Developments+in+Environmental+Modelling" style="display:none">

</li>

</ol></div><div><div class="zim-footer">

Dieser Artikel wurde von <a class="external text" title="Zuletzt bearbeitet am 2025-11-28" href="https://de.wikipedia.org/wiki/?title=Hauptkomponentenanalyse&oldid=261954896">Wikipedia</a> herausgegeben. Der Text ist unter <a class="external text" href="https://creativecommons.org/licenses/by-sa/4.0/deed.de">Creative Commons Attribution-Share Alike 4.0</a> verfügbar, sofern nicht anders angegeben. Für die Mediendateien können zusätzliche Bedingungen gelten.

</div>

</div></div>

</div>

</main>

</div>

</body></html>